Создатель ChatGPT: История Сэма Альтмана - Кич Хэйги

Пожалуй, никто лучше Альтмана не воплощал главный принцип Кремниевой долины – «добавь ноль справа». Этот образ мышления он перенял у своего наставника Пола Грэма – блестящего программиста, предпринимателя и эссеиста, одного из сооснователей Y Combinator. Грэм почти всегда помогал стартапам отказаться от мелочного мышления и задуматься, как вывести бизнес-модель на более высокий уровень – чтобы в прогнозах выручки строчка «миллионы» превратилась в «миллиарды». В 2019 году, встав у руля OpenAI, Альтман изложил в блоге свою философию успеха: «Полезно стремиться добавить еще один ноль справа к любому показателю своих достижений – будь то деньги, статус, влияние на мир или что угодно еще»[5].

Тиль признавался: Альтман привлек его тем, что, как никто другой, воплощал дух Кремниевой долины той эпохи – миллениал 1985 года рождения, попавший в мир технологий в золотой момент между крахом доткомов и финансовым кризисом, когда вера в стартапы возродилась, но технологическая сфера еще не скатилась в то, что Тиль язвительно называл заезженной колеей. В середине 2010-х, когда все громче звучали разговоры о технологическом пузыре, Тиль подавил сомнения, доверившись инвестиционному чутью Альтмана, – и не прогадал. «Сэм был неисправимым оптимистом – качество, необходимое для инвестирования в эти компании, ведь все они казались переоцененными», – говорил он. Как выяснилось, у «единорогов», взращенных в Y Combinator, таких как Stripe и Airbnb, еще оставался колоссальный потенциал для роста. На протяжении почти всей взрослой жизни Альтмана, если не считать короткой паузы после финансового кризиса 2008 года и начавшейся в 2020 году пандемии, технологические рынки знали только один путь – вверх.

Но на этот раз мрачные предчувствия Тиля оказались пророческими. Пока два инвестиционных партнера поднимали бокалы в самом модном новом ресторане Лос-Анджелеса, четверо из шести членов совета директоров OpenAI (в их числе двое напрямую связанных с движением эффективных альтруистов) тайно обсуждали по видеосвязи увольнение Альтмана. И хотя сам Юдковский не имел к этому отношения, его влиятельный блог LessWrong сыграл ключевую роль в том, что страх перед экзистенциальной угрозой со стороны ИИ стал центральной темой движения эффективных альтруистов.

Отголоски этого страха прослеживались и в принципах самой OpenAI, чьей заявленной миссией было «развивать цифровой интеллект так, чтобы это принесло максимальную пользу всему человечеству, не ограничиваясь необходимостью получать финансовую выгоду». Еще отчетливее эти опасения проступили в необычном уставе OpenAI 2018 года. В нем говорилось, что компания «обеспокоена тем, что разработка AGI на поздних стадиях может превратиться в гонку, где не останется времени на необходимые меры безопасности», поэтому обязуется «прекратить конкуренцию и начать помогать» любым проектам, разделяющим ее ценности, если они первыми создадут AGI. Самым причудливым образом этот страх воплотился в структуре управления компании: коммерческим подразделением руководил некоммерческий совет директоров, который был обязан действовать в интересах не инвесторов, а «человечества»[6]. Инвесторов же предупреждали, что они могут потерять все вложенные средства, если совет сочтет это необходимым для выполнения высшей миссии.

Устав во многом опирался на «Принципы ИИ», разработанные на конференции 2017 года. Ее организовал Институт будущего человечества – некоммерческая организация, занимавшаяся предотвращением экзистенциальных рисков от ИИ, которую финансировали такие миллиардеры, как Маск и основатель Skype Яан Таллинн. Альтман присутствовал на конференции и поддержал эти принципы. Еще раньше, в 2015 году, став одним из основателей OpenAI, Альтман писал в своем блоге, что AGI – это «вероятно, величайшая угроза существованию человечества», и рекомендовал книгу «Искусственный интеллект. Этапы. Угрозы. Стратегии» Ника Бострома[7], философа из Оксфордского университета, который на протяжении многих лет был частым гостем конференций MIRI, организованных исследовательским институтом Юдковского[8].

Опасения по поводу безопасности ИИ, о которых говорил Бостром, – например, история об искусственном интеллекте, запрограммированном делать канцелярские скрепки, который уничтожает человечество не из злого умысла, а потому, что люди мешают его стремлению превратить всю материю во Вселенной в скрепки (эту страшилку он позаимствовал, видоизменив, у Юдковского), – сыграли решающую роль в привлечении в OpenAI лучших в мире исследователей искусственного интеллекта. Не в последнюю очередь потому, что Маск, разделявший эти опасения, вложил в проект свои средства. И даже празднуя триумф ChatGPT, Альтман не забывал осторожно вплетать в свои восторженные прогнозы предостережения о потенциальных угрозах – во время слушаний в сенате он просил сенаторов заняться регулированием ИИ, потому что «если с этой технологией что-то пойдет не так, последствия могут быть катастрофическими»[9].

Многие в индустрии считали это не более чем искусным маркетинговым ходом. И действительно, в 2023 году Альтман в основном занимался тем, что у него получалось лучше всего: заключал сделки с новыми инвесторами, подогревал интерес прессы и выступал в роли глобального пророка будущего невиданного процветания. Возможно, его и правда тревожило, куда все движется, но педаль газа он выжимал до упора.

Однако вопреки мрачным предположениям Тиля члены совета директоров OpenAI совещались в тот вечер не из-за страха, что компания слишком быстро приближается к созданию AGI. На самом деле их желание сместить Альтмана почти не было связано ни с эффективным альтруизмом, ни с экзистенциальными рисками. Причина крылась в том самом качестве, за которое Тиль так превозносил Альтмана, – в том, что тот был живым воплощением духа Кремниевой долины.

А дух Кремниевой долины начала ХХI века, который стал визитной карточкой Y Combinator и который так ярко воплощал Альтман, заключался в том, что основатели компаний – короли, императоры, боги. Венчурные инвесторы, финансировавшие стартапы, из кожи вон лезли, доказывая свое дружеское расположение к основателям, что на практике означало: не увольнять основателя с поста генерального директора и не вставлять ему палки в колеса. Тиль довел эту идею до логического завершения, назвав свою венчурную фирму Founders Fund («Фонд основателей») и заявив, что она никогда не уволит основателя компании[10]. Отношения между венчурным инвестором и основателем считаются важнее даже успешности самого стартапа. В конце концов, если этот бизнес не выстрелит, основатель всегда может привлечь новый пакет инвестиций и начать что-то другое – и в этот раз достичь десятизначной оценки.

Альтман возглавил Y Combinator в 2014 году, и к этому времени основатели компаний настолько укрепили свои позиции, что он даже опубликовал в блоге пост с мягкой критикой практики, при которой основатели стартапов брали деньги инвесторов, но не давали им мест в совете директоров. Альтман отмечал, что на самом деле некоторые опытные венчурные инвесторы могли бы помочь компаниям своими знаниями. Впрочем, опасаясь, что стартапы Y Combinator решат, будто он зашел слишком далеко, Альтман завершил пост словами: «Хорошая идея – сохранять достаточный контроль, чтобы инвесторы не могли вас уволить»[11].

Компания OpenAI должна была стать исключением из этого правила. У Альтмана